Năm 208, Tào Tháo sắp đánh Kinh Châu, nhưng ngại Mã Đằng và Hàn Toại chia nhau chiếm miền Quan Trung, lại sai Trương Ký đi dụ, bắt phải bỏ thuộc hạ mà thần phục. Mã Đằng đã hứa theo nhưng lại do dự. Trương Ký sợ Mã Đằng gây biến, bèn sai các huyện sắm đủ lương thực, đem hai nghìn thạch lương ra ngoài thành trao cho quân, làm như sắp điều quân đánh Lương châu[13]. Mã Đằng bất đắc dĩ phải về Hứa Xương, Tào Tháo cho Đằng làm Vệ úy, lại phong cho con thứ của Mã Đằng (em Mã Siêu) là Mã Hưu làm Phụng xa Đô uý, em trai Hưu là Mã Thiết làm Kỵ Đô uý, dời cả gia thuộc khỏi xứ ấy đến ở Nghiệp Thành, chỉ còn mình Mã Siêu ở lại Lương châu nắm thuộc hạ Mã Đằng.

Tào Tháo thua trận Xích Bích trở về bắc. Năm 209, Hàn Toại sai Diêm Hành đến chỗ Tào Tháo. Tào Tháo hậu đãi Diêm Hành, cho làm Thái thú Kiện Vi, lại theo thỉnh cầu của Hành cho cha Hành vào làm Túc vệ. Diêm Hành trở về gặp Hàn Toại truyền lệnh của Tào Tháo gọi Hàn Toại vào kinh. Đồng thời, Diêm Hành cũng khuyên Hàn Toại nên gửi con tin cho Tào Tháo để bày tỏ lòng trung thành với triều đình. Hàn Toại không phản đối nhưng cũng không làm theo, muốn tiếp tục xem xét tình thế mới quyết định. Ông cử một người con đi cùng cha Diêm Hành vào kinh với Tào Tháo.